DeGRe: Dense-supervised Generative Reranking for Recommendation
密集监督的生成式重排框架 DeGRe
🧭 生成式重排 · 密集监督 · 离线在线解耦 ★ 深度解读
浙江大学 · 阿里巴巴
通过离线 beam search 挖掘高价值序列并转化为逐步密集监督，让轻量生成器在线仅需一次贪婪解码即逼近全局最优重排。
📌 工作参考价值（5 点）
- 离线在线解耦范式：离线用计算资源换在线效率，将排列空间探索、beam search 等重计算放在离线完成，在线仅部署轻量生成器，一次贪婪解码，适合电商实时重排的延迟约束。
- 密集监督构造方法：利用累积回归评估器对每个候选提供 step-wise 价值估计，构建硬标签（模仿选中的物品）和软标签（保留候选集的完整价值分布）作为训练信号。相比只用点击与否的启发式标签或 list-wise 稀疏奖励，能更精细地指导生成器学习物品间上下文依赖。
- 序列加权蒸馏：对 beam search 得到的多条前瞻序列按其评估价值加权，让生成器重点学习高价值序列，避免被低质量解码路径带偏；软标签蒸馏作为辅助正则，既保留排序信息又防止过拟合。
- 用户引导的解码启动：用用户表征投影作为 decoder 的初始输入，替代通用的 <BOS> 令牌，增强首物品决策的个性化，可借鉴到自回归生成推荐中。
- 候选约束的指针网络解码：生成器每一步从输入候选集中选择物品，通过点积注意力得分选取，避免生成无效物品，适合变长候选集的电商重排场景。